index

• 핵심: Adversarial Training을 이용해 Feature Space에서 도메인 불변성을 학습.

특징: Source Domain 데이터에 라벨이 있는 상황에서 Target Domain 데이터를 라벨 없이 학습.

한계: Target 데이터의 라벨 없이 분포 차이를 효과적으로 줄이기 어려움.

• 논문: "Maximum Classifier Discrepancy for Unsupervised Domain Adaptation"

저자: Saito et al. (2018)

핵심: 두 분류기의 예측 불일치를 최소화하여 Target Domain에서 도메인 적응을 달성.

핵심 개념: UDA는 라벨이 있는 Source Domain 데이터와 라벨이 없는 Target Domain 데이터를 이용해 Target Domain에서의 성능을 개선하는 것을 목표로 한다.

방법론:

• Feature Alignment: Source와 Target 도메인의 특성을 동일한 공간에서 정렬시키는 방식으로, 대표적으로 Adversarial Training(예: DANN)이 사용된다.
• Domain-Invariant Representations: 두 도메인에서 공통적으로 잘 작동하는 표현을 학습한다.
• Reconstruction Approaches: Target 데이터의 분포를 Source와 유사하게 변형시키거나 반대로 Source 데이터를 Target 스타일에 맞게 변형.

한계: Target 도메인의 데이터 접근이 항상 보장되거나 대규모 데이터가 필요한 경우 실제 환경에 적용이 어려울 수 있음.

특징: Source Domain 데이터 접근 없이 Target Domain 데이터만으로 적응 수행.

한계: Target 데이터의 품질과 구조에 크게 의존하며 적응 과정이 불안정할 수 있음.

• 논문: "Source-Free Domain Adaptation via Distribution Estimation"

저자: Liang et al. (2020)

핵심: Source 데이터 없이 Target Domain의 분포를 추정하여 모델을 적응.

핵심 개념: SFDA는 Source Domain 데이터에 접근할 수 없는 상황에서 Target Domain 데이터만으로 모델을 적응시키는 방법이다.

방법론:

• Pre-trained Model 활용: Source Domain에서 학습된 모델을 활용하여 Target Domain의 특성에 맞게 모델의 출력 또는 중간 레이어를 조정.
• Self-Supervised Learning: Target 데이터의 내재적 구조를 활용해 라벨 없이 학습.

장점:

• Source 데이터에 접근할 필요가 없어 데이터 프라이버시와 보안 문제를 해결.
• 적은 리소스로 Target 데이터에 적응 가능.

한계: Target 데이터의 라벨이 없는 상태에서 모델 수정이 제한적이며, 최적화 과정이 불안정할 수 있음.

특징: Test 단계에서 Target 데이터를 기반으로 실시간 적응 수행.

한계: 샘플 단위 적응의 효율성과 안정성에 제약이 있을 수 있음.

• 논문: "Tent: Fully Test-Time Adaptation by Entropy Minimization"

저자: Wang et al. (2021)

핵심: Batch Normalization과 Entropy Minimization을 결합하여 실시간 적응.

핵심 개념: 모델이 Target 데이터에 적응하는 과정을 Test 단계에서 수행하는 방법. Source 데이터나 추가적인 사전 학습 없이 Target 데이터에서의 적응을 목표로 한다.

방법론:

• Batch Normalization Statistics: Test 데이터의 통계값을 통해 모델을 동적으로 조정.
• Entropy Minimization: Test 데이터의 불확실성을 줄여 성능을 높이는 기법.

특징:

• 실시간 적응 가능.
• Test 데이터에 대한 추가적인 학습 없이도 Source-Free 설정에서 작동.

한계: 단일 샘플에 대해 적응하거나 테스트 시간이 길어질 수 있는 상황에서 효율성 문제가 있을 수 있음.

• 논문: "Fully Test-Time Adaptation by Reinforcement of Self-Supervised Representations"

1. Self-Supervised Learning 활용: Test 단계에서 Target Domain 데이터의 특성을 활용해 라벨 없이 학습.
2. 샘플 단위 적응: FTTA는 각 데이터 샘플마다 독립적으로 적응을 수행하여 실시간 변화를 반영한다.
3. Fine-tuning 가능성: 모델이 Test 단계에서 성능을 지속적으로 개선할 수 있다.
4. Source-Free: SFDA의 연장선으로 Source Domain 데이터 없이도 효과적으로 작동.

• 새로운 데이터 분포에 대한 적응력을 극대화.
• 지속적인 학습을 통해 모델이 장기간 적응 가능.

• 실시간 학습의 높은 계산 비용.
• 적응 과정에서 Noise 데이터로 인해 성능 저하 가능성.
• 완전히 새로운 도메인에서는 적응 성능이 불안정할 수 있음.

특징: Test 단계에서 Self-Supervised Task를 추가 학습해 Target Domain에 적응.

한계: Self-Supervised Task 설계가 도메인에 따라 달라지며, 실시간 학습의 계산 비용이 높음.

핵심 개념: TTT는 Test 단계에서 모델이 새로운 데이터를 볼 때마다 자체적으로 학습을 수행하는 방식으로, TTA의 확장판이다.

방법론:

• Auxiliary Task 기반 학습: 모델이 Test 단계에서 추가적인 학습을 통해 Target Domain에 적응.
• Self-Supervised Objectives: Test 데이터의 라벨이 없는 경우에도 가능한 학습 목표(예: 데이터 복원, 특징 분해)를 설정.

장점:

• 새로운 환경에서도 모델의 성능을 실시간으로 개선 가능.
• 지속적인 학습을 통해 도메인 변화에 대한 강건성을 제공.

한계:

• Test 단계에서 추가 연산이 요구되며, 실제 애플리케이션에서 지연(latency) 문제를 유발할 수 있음.
• Test 데이터의 품질이 낮거나 분포가 지나치게 다를 경우 과적합 위험.

Domain adaptation : target의 도메인이 알려져 있고, 고정되어 있다고 가정함. but, 현실 세계에서는 그렇지 않음.

UDA(Unsupervised Domain Adaptation) : source data에 label이 있는 data와 label이 없는 target data가 모두 필요. ⇒ source데이터는 개인정보 보호때문에 사용 불가능한 경우 많음.

SFDA(Source-Free Domain Adaptation) : 소스 데이터에 접근하지 않고, 소스 데이터에서 학습된 검출기를 타겟 도메인에 적용.

세 연구(domain adaptation, UDA, SFDA) 모두 target data의 도메인이 알려져 있고 고정됨.

Test-Time Adaptation : 이미지 분류에 초점, 소스 데이터 접근을 필요로 함.

TENT가 Fully Test-Time Adaptation을 제안 : 소스 데이터가 필요X, but 배치 단위의 테스트 샘플이 필요 + 여전히 이미지 분류에만 초점